תרגילים בשרשראות מרקוב. + תרגילים מבחינות עבר אם לא דברנו בסוף מספיק על שרשראות עם מספר מצבים אינסופי פשוט תתעלמו מהתרגילים המתאימים..תהי Xn שרשרת מרקוב סופית עם מטריצת מעבר דו-סטוכסטית )סכום של כל עמודה וגם של כל שורה הוא (. הראו שההתפלגות האחידה היא סטציונרית עבור השרשרת.. Nכדורים בכל רגע. בכל שלב לוקחים כדור באקראי מהכד ואז זורקים מטבע p עבור >p> נתון מראש) קבוע לכל השלבים(.אם יוצא עץ מכניסיםלכד כדור לבן במקום הכדור שנלקח, ואם יוצא פלי מכניסים במקומו כדור שחור. יהי {Xn} מספר הכדורים הלבנים שבכד לאחר השלב ה n. א. האם Xn שרשרת מרקוב? ב. מה מחלקות הקשירות שלה, איזה מצבים הם נשנים ואיזה חולפים. האם יש מחזור גדול מ לאחד המצבים? ג. מה הסתברויות המעבר? ד. חשבו את ההתפלגות הסטציונרית עבור 2=N. ה. נחשו את ההתפלגות הסטציונרית עבור Nכללי והוכיחו שהיא אכן סטציונרית. ו. אם נקח =p, מה תוחלת הזמן עד שכל הכדורים בכד יהיו לבנים, אם בתחילה היו רק כדורים שחורים בכד. )א( הראו שלגבי כל מצב בשרשרת מרקוב בלתי פריקה בעלת מספר סופי של מצבים שהסכוי לא להגיע אליו עד שלב m שואף לאפס מעריכית, זאת אומרת שקיים m a שהסתברות זאת קטנה מ a לכל M, m M סופי )ב( הראו שבסעיף א' לא ניתן לוותר על סופיות מספר המצבים. בכד יש. מתקיים פרמטר וקבוע..2.3.5.5..5.5.5..2.5.2.25..2.5.2.5 4. נתונה שרשרת מרקוב. 4 )א( מצאו את ההסתברויות הגבוליות. lim n P ( n) 3,6, lim n P ( n) 3,4 )ב( מצאו את תוחלת הזמן עד הקלטות במצבים נשנים כאשר נמצאים במצבים 3 ו א. מהמר משחק במשחק הבא: זורקים מטבע הוגן עד שהוא נופל 3 פעמים רצוף על עץ. כשזה קורה, המהמר מרוויח. 2 כל הטלת מטבע )כולל ההטלה בה הוא זוכה( עולה 5
למהמר שח. האם המשחק מאוזן? מה תוחלת הרווח או הפסד של המהמר? )השתמשו בשרשראות מרקוב( ב. כעת ניתנת למהמר גם אפשרות להפסיק באיזה שלב שירצה. האם הוא יכול להגדיל את תוחלת הרווח? נתונים שני כדים שבכל אחד מהם יש N כדורים. מתוך 2N הכדורים N כדורים הם לבנים N כדורים הם שחורים. בכל שלב מוגרל אקראית כדור מכל כד ומעבר לכד האחר. הסתכלו על שרשרת מרקוב שמצביה הם מספר הכדורים הלבנים בכד הראשון. )א( רשמו את מטריצת המעבר של השרשרת. )ב( מיינו את מצבי השרשרת. )ג( עבור N =3, חשבו את וקטור ההסתברויות הסטציונרי..6. ו 7 א. אם } n X} n,{ Y} שרשראות מרקוב בלתי תלויות עם ערכים שלמים, האם בהכרח גם } n {X n + Y שרשרת מרקוב? ב. האם בכל שרשרת מרקוב אי פריקה בעלת מחזור d, יש לכל שני מצבים בשרשרת סיכוי חיובי לעבור מאחד לשני תוך כפולה שלמה של?d ג. האם בשרשרת מרקוב בעלת שלושה מצבים יש לכל היותר 3 התפלגויות סטציונריות שונות? נתונה שרשרת מרקוב על המצבים },2,3,4,5,6}=S עם מטריצת המעבר /2 /2 /2 /2 P= /2 /2 /2 /2 ( /4 /4 /4 /4 ) מיינו את המצבים של השרשרת א. עבור i=,..,6 חשבו את i) lim n P (n) (i, ב. מצאו שתי התפלגויות סטציונריות שונות. ג. חשבו את תוחלת הזמן עד ששרשרת שמתחילה במצב נבלעת בקבוצת ד. המצבים הנשנים. 8 א. האם קיימת שרשרת מרקוב עם מספר אינסופי של מצבים חולפים, מספר אינסופי של מצבים נשנים- ומספר אינסופי של מצבים נשנים-חיובית? ( תנו דוגמה שיש או הוכחה שאין( )7(.9 ב. האם קיימת שרשרת מרקוב עם אינסוף מצבים חולפים, 4 נשנים ו 4 נשנים חיובית? )7( ג. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית לעבור מ i ל j תוך מספר סופי של צעדים. האם בהכרח יש סיכוי חיובי, כשמתחילים ב i, לעבור ב j לפחות 3 פעמים? )6(
ד. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית, כשמתחילים מ i, לעבור ב j לפחות 3 פעמים. האם בהכרח יש סיכוי חיובי, כשמתחילים מ i, לעבור ב j לפחות 5 פעמים? )7(. תהי } n X} שרשרת מרקוב הומוגנית על המצבים {,2,3,4,5,6}=S עם מטריצת מעבר נתונה a 3 2 a 5 2 2 4 P= 6 2. נגדיר תהליך חדש 6 2 ע"י 3 4 2 ( 3 4 2 ) X n = or X n = 2. Y n = { 2 X n = 3 or X n = 4 3 X n = 5 or X n = 6 Y n א. ב. ג. האם התהליך Y n שרשרת מרקוב עבור =a? נמק. )7( האם התהליך Y n שרשרת מרקוב עבור 2=a? נמק.) 7 ( עבור הערכים )או ערך( של a מהסעיפים הקודמים בו יוצא כי Y n שרשרת מרקוב, כתבו את מטריצת המעבר של ומצאו את ההתפלגות הסטציונרית של. n )3( Y.תהליך אקסקלוזן חד כווני: נתון מעגל עם 3 מקומות. כל מקום יכול להיות ריק או תפוס על ידי חלקיק. המערכת מתפתחת בהתאם לכלל הבא: בכל שלב בוחרים באקראי )באופן אחיד( את אחד החלקיקים, ואם המקום מימינו פנוי הוא זז מקום אחד ימינה, אחרת הוא פשוט נשאר במקום. א. תארו את את התהליך כשרשרת מרקוב. מהו מרחב המצבים של השרשרת? מהי מטריצת המעבר? ב. מהן מחלקות הקשירות של השרשרת? ג. מהן ההתפלגויות הסטציונריות של השרשרת )רמז תארו את ההתפלגות הסטציונרית של כל מחלקה( ד. עבור אילו מצבים התחלתיים יש התכנסות להתפלגות הסטציונרית? מבחן הסתברות ותהליכים סטוכסטיים 88-962 מועד ב, סמסטר א' תשע"ו חומר עזר אסור פרט למחשבון פשוט )כלומר ללא חיבור אינטרנט, מקלדת או טלפון(. בכל מקרה די לתת תשובות מספריות בדיוק של עד שתי ספרות אחרי הנקודה )או כשבר פשוט(. יש לנמק )בקצרה( את התשובות. יש לבחור 4 שאלות מתוך 5. )לא ניתן לענות על סעיפים בכל 5 השאלות( כל שאלה שווה 27- נקודות, אך הציון המקסימלי הוא. זמן הבחינה: שלוש שעות
.א. האם קיימת שרשרת מרקוב עם אינסוף מצבים חולפים, 5 נשנים אפס ו 5 נשנים חיובית? )9(. X n 2 ב. אם X n שרשרת מרקוב עם ערכים שלמים חיוביים האם בהכרח גם שרשרת מרקוב. )9( ג. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית, כשמתחילים מ i, לעבור ב j לפחות 2 פעמים. האם בהכרח יש סיכוי חיובי, כשמתחילים מ i, לעבור ב j לפחות 4 פעמים? )9( נתונה שרשרת מרקוב } t X} בזמן רציף על המצבים {,2,3,4}=S עם יוצר אינפיטיסימלי A = ( 2 3 ) 2 2 א. מהן מחלקות הקשירות של השרשרת. מיינו את המצבים לנשנים וחולפים. )7( ב. מהי מטריצת המעבר של השרשרת הטמונה? )5( מצאו התפלגות סטציונרית של השרשרת הרציפה )6(. האם ג. היא יחידה?) 3 ( ד. מה הסיכוי, כשמתחילים ממצב 2 להגיע למצב 4 לפני שמגיעים למצב.? )6(.2 n. S n = i= יהיו X i משתנים מקריים בלתי תלויים ושווי התפלגות, ויהי X i א. נניח ש X i אי-שליליים ובעלי תוחלת סופית, ו- T זמן עצירה עם תוחלת סופית. הראו ש )4( E[X T ] = E[T]E[X ] ב. נניח ש X i חסומים וש- = ]. E[X יהי > a כלשהוא, ונגדיר )3(.E[T a ] = - הראו ש.T a = inf {n : S n a}.3
פוליה החליט לשנות מעט את תהליך הכד שלו. כעת בכל שלב, במקום להוציא כדור מקרי מהכד ולהחזיר 2 מאותו צבע במקום, הוא מחזיר 3 כדורים מאותו צבע )כלומר בכל שלב מתווספים לכד שני כדורים חדשים(. נניח כעת שמתחילים עם כד בו 2 כדורים אדומים ואחד כחול..4 א. ב. יהא X n אחוז הכדורים האדומים בכד לאחר n שלבים. הראו שקיים משתנה מקרי X כך ש lim n X n = X בהסתברות. )2( אני ופוליה כעת משחקים במשחק הבא: אני רשאי לעצור את התהליך שלו מתי שארצה, ואז אני מנצח אם הכדור הבא שנשלף מהכד הוא אדום. אם הכדור שנשלף הוא כחול אני מפסיד. אם עברנו שלבים בלי לעצור)כלומר כשיש בכד 23 כדורים(, חייבים לעצור ולשלוף כדור וצבעו קובע. בהנחה שאני משחק אופטימלית, מה הסיכוי שלי לנצח? האם האסטרטגיה משנה? )5( נתונה אוכלוסיה של 5 פריטים, כל אחד מהם מסוג A או B. בכל דור מתחלפת כל האוכלוסיה ע"יי שדוגמים עם חזרה 5 פריטים מהדור הקודם )כלומר כל פריט אוכלוסיה בדור הבא נבחר להיות מסוג A או B בסיכוי פרופורציונלי לחלק היחסי של A ו B בדור הקודם( ניתן לתאר את האוכלוסיה כשרשרת מרקוב. א. תנו תאור של התפתחות האוכלוסיה כשרשרת מרקוב. )שימו לב כי ניתן למשל לתאר זאת כשרשרת עם 6 מצבים )מומלץ( או עם 32 מצבים באופן טבעי( )6( ב. מהן הסתברויות המעבר? )7( ג. תארו את מחלקות הקשירות של השרשרת. מיינו למצבים הם נשנים\חולפים? )5( ד. מה הסיכוי שהחל מדור כלשהוא כל הפריטים יהיו מסוג B אם ידוע שבדור הראשון היו 3 פריטים מסוג A ושניים מסוג? B )9(.5 בהצלחה! מבחן הסתברות ותהליכים סטוכסטיים 88-962 מועד א, סמסטר א' תשע"ד חומר עזר אסור פרט לדף נוסחאות מצורף ומחשבון פשוט )כלומר ללא חיבור אינטרנט, מקלדת או טלפון(. בכל מקרה די לתת תשובות מספריות בדיוק של עד שלוש ספרות אחרי הנקודה. יש לנמק )בקצרה( את התשובות.
יש לבחור 4 שאלות מתוך 5. )לא ניתן לענות על סעיפים בכל 5 השאלות( נקודות, אך הציון המקסימלי הוא. כל שאלה שווה 28- זמן הבחינה: שלוש שעות 2. א. האם קיימת שרשרת מרקוב עם מספר אינסופי של מצבים חולפים, מספר אינסופי של מצבים נשנים- ומספר אינסופי של מצבים נשנים-חיובית? ( תנו דוגמה שיש או הוכחה שאין( )7( ב. האם קיימת שרשרת מרקוב עם אינסוף מצבים חולפים, 4 נשנים ו 4 נשנים חיובית? )7( ג. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית לעבור מ i ל j תוך מספר סופי של צעדים. האם בהכרח יש סיכוי חיובי, כשמתחילים ב i, לעבור ב j לפחות 3 פעמים? )7( ד. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית, כשמתחילים מ i, לעבור ב j לפחות 3 פעמים. האם בהכרח יש סיכוי חיובי, כשמתחילים מ i, לעבור ב j לפחות 5 פעמים? )7( 3. תהי } n X} שרשרת מרקוב הומוגנית על המצבים {,2,3,4,5,6}=S עם מטריצת מעבר נתונה a 3 2 a 5 2 2 4 P= 6 2. נגדיר תהליך חדש 6 2 ע"י 3 4 2 ( 3 4 2 ) X n = or X n = 2. Y n = { 2 X n = 3 or X n = 4 3 X n = 5 or X n = 6 Y n ד. ה. ו. האם התהליך Y n שרשרת מרקוב עבור =a? נמק. )8( האם התהליך Y n שרשרת מרקוב עבור 2=a? נמק.) 8 ( עבור הערכים )או ערך( של a מהסעיפים הקודמים בו יוצא כי Y n שרשרת מרקוב, כתבו את מטריצת המעבר של ומצאו את ההתפלגות הסטציונרית של. n )2( Y 4. א. יהיו,X,Y Z שלושה משתנים מקריים שכל אחד מתפלג אחיד על {,2,3,4,5,6} )קוביות (. האם קיים צימוד של שלושת הקוביות כך ש P(Y>Z)>/2 P(X>Y) >,/2 ו - P(Z>X)>/2 )8(? ב. יהיה {Xn} הילוך מקרי מוטה על השלמים, שמתחיל מ, ובכל צעד הולך ימינה בסיכוי 3/4 ושמאלה בסיכוי, /4 ועוצר כשהוא מגיע ל. הראו שהסיכוי שההילוך יגיע ל )ולא יעצר במקום ב -( הוא לא פחות מ..5 )2(
5. מטילים שוב ושוב מטבע מוטה הנוחת על עץ בסיכוי.75 ועל פלי בסיכוי..25 תהי {Xn} שרשרת מרקוב הסופרת את האורך של הרצף הנוכחי של מספר הנפילות על עץ, חסום ע"יי. )כלומר בכל פעם שיוצא פלי השרשרת עוברת למצב,ו אם הרצף הנוכחי של עצים ארוך מ -, השרשרת נשארת במצב עד שיוצא פלי ) א. כתבו את הסתברויות המעבר של השרשרת. )5( ב. מצאו התפלגות סטציונרית לשרשרת. רמז כדאי להתחיל מלמצוא את המידה הסטציונרית של המצב. )9( ג. הראו ש - + )4(. < ε עבור כל < t mix (ε) < ln ε ln 3 4 בהצלחה! מבחן הסתברות ותהליכים סטוכסטיים 88-962 מועד א, סמסטר א' תשע"ו חומר עזר אסור פרט למחשבון פשוט )כלומר ללא חיבור אינטרנט, מקלדת או טלפון(. בכל מקרה די לתת תשובות מספריות בדיוק של עד שתי ספרות אחרי הנקודה )או כשבר פשוט(. יש לנמק )בקצרה( את התשובות. יש לבחור 4 שאלות מתוך 5. )לא ניתן לענות על סעיפים בכל 5 השאלות( כל שאלה שווה 27 -נקודות, אך הציון המקסימלי הוא. זמן הבחינה: שלוש שעות א. האם קיימת שרשרת מרקוב עם מספר אינסופי של מצבים חולפים, וחמישה מצבים נשנים? ( תנו דוגמה שיש או הוכחה שאין( )9( 2 ב. אם X n שרשרת מרקוב עם ערכים ממשיים אז בהכרח גם X n שרשרת מרקוב. )9( ג. האם בכל שרשרת מרקוב אי פריקה בעלת מחזור d, יש מכל מצב שרשרת סיכוי חיובי לחור לעצמו תוך בדיוק d צעדים? )9(.
2. תהליך גלטון-ווטסון עם התפלגות צאצאים L הוא שרשרת מרקוב על הטבעיים בו X n מתאר את מספר הפריטים באוכלוסיה ו +n X נתון על X X +n = n כאשר Y משתנים מקריים בלתי תלויים ושווי n,i i= ידי Y n,i התפלגות שכל אחד מהם מתפלג לפי L. )ניתן לחשוב על כך כאילו כל פריט באוכלוסיה מוחלף במספר מקרי של צאצאים שמתפלג לפי.)L אם בשלב כלשהו = n X אז גם = n+ X ולכן מצב בולע. במקרה כזה נגיד שהתהליך מת. נניח שהתפלגות הצאצאים,.5 ו =.X P(L = ) = P(L = 2) = מקיימת L )הערה כל סעיפי השאלה עובדים באותה קלות לכל התפלגות L עם תוחלת וסיכוי חיובי ל )=L א. הראו ש X n הוא מרטינגל )9( ב. האם X n מתכנס בהסתברות? )9( ג. מה הסיכוי שהתהליך לא ימות לעולם? )5( ד. האם Xמתכנס n ב? L )4( מטילים מטבע הוגן שוב ושוב וחוזר חלילה. תהי Xשרשרת n מרקוב שסופרת את מספר ההטלות שיצאו עץ ברצף מאז הופעת הטלת הפלי האחרונה, כשרצף מעל 4 נחשב תמיד כ 5. )כלומר עם הרצף עומד על 5 ומעלה ויוצא שוב עץ, נשארים במצב 5 (,השרשרת מתחילה ממצב.X = ד. כתבו את הסתברויות המעבר של השרשרת. )במטריצה, בנוסחה או בציור( )5( ה. מצאו התפלגות סטציונרית לשרשרת. רמז כדאי להתחיל מלמצוא את המידה הסטציונרית של המצב. )8( ו. מה תוחלת הזמן, כשמתחילים מ,עד שחוזרים למצב? )יש הרבה דרכים לחשב זאת.( )5( τ ה"מרטינגל ההעצור" כאשר Y ויהי M n = 2 X n n n = M n τ ז. יהי 2 זמן העצירה בו השרשרת פוגעת במצב 5. הראו ש Y n הוא מרטינגל. )9(.3 יהיה n X} n } הלוך מקרי מוטה עצלן על השלמים שמתחיל מ = X והולך בכל צעד שמאלה בסיכוי, נשאר במקום בסיכוי והולך ימינה בסיכוי מעבר 4 n X} n } שרשרת מרקוב עם הסתברויות 4. כלומר 2.4
P(X n+ = X n ) = 4, P(X n+ = X n ) = 4, P(X n+ = X n + ) = ו M n = X n n הם מרטינגלים. )2( 4 R n = 2 X n 2 א. הוכיחו ש - ב. מצאו את ההסתברות שההלוך יגיע ל N לפני שיגיע ל. )9( מצאו את ההסתברות שההלוך לעולם לא יגיע ל. )רמז ניתן ג. להגדיר מאורעות יורדים ולהשתמש ברציפות ההסתברות, אם כי יש עוד דרכים( )6( בהצלחה! מבחן הסתברות ותהליכים סטוכסטיים 88-962 מועד ב, סמסטר א' תשע"ד חומר עזר אסור פרט לדף נוסחאות מצורף ומחשבון פשוט )כלומר ללא חיבור אינטרנט, מקלדת או טלפון(. בכל מקרה די לתת תשובות מספריות בדיוק של עד שלוש ספרות אחרי הנקודה. יש לנמק )בקצרה( את התשובות. יש לבחור 4 שאלות מתוך 5. )לא ניתן לענות על סעיפים בכל 5 השאלות( כל שאלה שווה 27- נקודות, אך הציון המקסימלי הוא. זמן הבחינה: שלוש שעות 6. א. אם } n X} n,{ Y} שרשראות מרקוב בלתי תלויות עם ערכים שלמים, האם בהכרח גם } n {X n + Y שרשרת מרקוב? )9( ב. האם בכל שרשרת מרקוב אי פריקה בעלת מחזור d, יש לכל שני מצבים בשרשרת סיכוי חיובי לעבור מאחד לשני תוך כפולה שלמה של?d )9( ג. האם בשרשרת מרקוב בעלת שלושה מצבים יש לכל היותר 3 התפלגויות סטציונריות שונות? )9( 7. נתונה שרשרת מרקוב על המצבים },2,3,4,5,6}=S עם מטריצת המעבר /2 /2 /2 /2 P= /2 /2 /2 /2 ( /4 /4 /4 /4 ) 8. מיינו את המצבים של השרשרת )6( עבור i=,..,6 )7(.9 חשבו את i) lim n P (n) (i, 2. מצאו שתי התפלגויות סטציונריות שונות. )7( 2. חשבו את תוחלת הזמן עד ששרשרת שמתחילה במצב נבלעת בקבוצת המצבים הנשנים. )7(
א. א. ב. ג. 22. יהיו } n X} סדרת משתנים מקריים בלתי תלויים ושווי התפלגות שכל אחד מהם מתפלג אחיד על הקטע [,]. יהיה B n המאורע B n = {X n+ < X n n } )9(? יהיה Cn המאורע C n = {X n < e n }. מה ההסתברות שקורים אינסוף מהמאורעות B n. מה הסיכוי שקורים אינסוף מהמאורעות? C n )9( n יהיו D n המאורעות } n. D n = { ( k= X k ) n > מה הסיכוי שיקרו אינסוף 2 4 מהמאורעות? D n )רמז- אחת הדרכים היא בעזרת חוקי המספרים הגדולים או חוק הגבול המרכזי(. )9( בהצלחה! מבחן הסתברות ותהליכים סטוכסטיים 88-962 מועד ב, סמסטר א' תשע"ו. האם קיימת שרשרת מרקוב עם אינסוף מצבים חולפים, 5 נשנים אפס ו 5 נשנים חיובית? )9(.6 X n 2 ב. אם X n שרשרת מרקוב עם ערכים שלמים חיוביים האם בהכרח גם שרשרת מרקוב. )9( ג. יהיו i,j מצבים בשרשרת מרקוב הומוגנית, ונניח שיש הסתברות חיובית, כשמתחילים מ i, לעבור ב j לפחות 2 פעמים. האם בהכרח יש סיכוי חיובי, כשמתחילים מ i, לעבור ב j לפחות 4 פעמים? )9(
7. תהי } n X} שרשרת מרקוב הומוגנית על המצבים {,2,3,4,5,6}=S עם מטריצת מעבר נתונה ע"י.4.4.2 P=.5.5.5.5 (.7.3) א. מיינו את המצבים של השרשרת )רכיבי קשירות, מצבים נשנים וחולפים( )7( ב. מצאו שתי התפלגויות סטציונריות שונות של השרשרת. )8( n ג. עבור,2,3=i האם קיים הגבול. lim n P i,i חשבו את הגבול כאשר הוא קיים. )8( ד. מה הסיכוי, כשמתחילים ממצב, לפגוע במצב 2 לפני שפוגעים במצב?3 )4( n. S n = i= יהיו X i משתנים מקריים בלתי תלויים ושווי התפלגות, ויהי X i ג. נניח ש X i אי-שליליים ובעלי תוחלת סופית, ו- T זמן עצירה עם תוחלת סופית. הראו ש )4( E[X T ] = E[T]E[X ] ד. נניח ש X i חסומים וש- = ]. E[X יהי > a כלשהוא, ונגדיר )3(.E[T a ] = - הראו ש.T a = inf {n : S n a} )בסעיף ב איננו מניחים שהמשתנים אי-שליליים ).8 פוליה החליט לשנות מעט את תהליך הכד שלו. כעת בכל שלב, במקום להוציא כדור מקרי מהכד ולהחזיר 2 מאותו צבע במקום, הוא מחזיר 3 כדורים מאותו צבע )כלומר בכל שלב מתווספים לכד שני כדורים חדשים(. נניח כעת שמתחילים עם כד בו 2 כדורים אדומים ואחד כחול..9 ג. ד. יהא X n אחוז הכדורים האדומים בכד לאחר n שלבים. הראו שקיים משתנה מקרי X כך ש lim n X n = X בהסתברות. )2( אני ופוליה כעת משחקים במשחק הבא: אני רשאי לעצור את התהליך שלו מתי שארצה, ואז אני מנצח אם הכדור הבא שנשלף מהכד הוא אדום. אם הכדור שנשלף הוא כחול אני מפסיד. אם עברנו שלבים בלי לעצור)כלומר כשיש בכד 23 כדורים(, חייבים לעצור ולשלוף כדור וצבעו קובע. בהנחה שאני משחק אופטימלית, מה הסיכוי שלי לנצח? האם האסטרטגיה משנה? )5(
נתונה אוכלוסיה של 5 פריטים, כל. אחד מהם מסוג A או B. בכל דור מתחלפת כל האוכלוסיה ע"יי שדוגמים עם חזרה 5 פריטים מהדור הקודם )כלומר כל פריט אוכלוסיה בדור הבא נבחר להיות מסוג A או B בסיכוי פרופורציונלי לחלק היחסי של A ו B בדור הקודם( ניתן לתאר את האוכלוסיה כשרשרת מרקוב. ה. תנו תאור של התפתחות האוכלוסיה כשרשרת מרקוב. )שימו לב כי ניתן למשל לתאר זאת כשרשרת עם 6 מצבים )מומלץ( או עם 32 מצבים באופן טבעי( )6( ו. מהן הסתברויות המעבר? )7( ז. תארו את מחלקות הקשירות של השרשרת. מיינו למצבים הם נשנים\חולפים? )5( ח. מה הסיכוי שהחל מדור כלשהוא כל הפריטים יהיו מסוג B אם ידוע שבדור הראשון היו 3 פריטים מסוג A ושניים מסוג? B )9( )רמז ניתן לפתור בשיטות של שרשראות מרקוב או יותר בפשטות בכלים אחרים( בהצלחה!